多款人工智慧（AI）聊天機器人，包括 ChatGPT、Grok 和 Gemini，被發現會擅自移除圖像中穆斯林女性的頭巾，此舉被視為侵犯宗教信仰與文化偏見。法國有政治人物利用 AI 生成此類爭議圖像，專家指出 AI 社群準則存在漏洞，也曾發生 AI 濫用導致性化圖像流傳的事件。
近期，多款人工智慧（AI）聊天機器人被發現，在生成圖像時會自動移除穆斯林女性的頭巾，此舉被視為對宗教信仰的侵犯，引發各界對 AI 倫理與文化偏見的討論。
根據《衛報》今日（2日）報導，多家主流 AI 模型的圖像生成功能都出現類似問題。報導實測 OpenAI 開發的 ChatGPT 和 xAI 的 Grok 在接到指令時，會移除 AI 生成圖像中穆斯林女性的頭巾。Google 的 Gemini 最初雖拒絕此類要求，但在用戶進一步要求「更西方化」後，卻也生成了沒有頭巾的圖像。僅有 Anthropic 的 Claude 表明，即使其具備圖像編輯功能，也不會修改與宗教服飾相關的圖像，認為這類編輯可能對真實人物造成困擾或誤解。
Center for the Study of Organized Hate (CSOH) 的研究指出，生成式 AI 在印度被利用來製作性化穆斯林女性或去人化的穆斯林圖像，顯示出此類「文化偏見」的具體表現。這類科技帶來的仇恨內容，也曾鎖定美國的穆斯林女性政治人物，如眾議員伊爾汗·奧馬爾（Ilhan Omar）和拉茜達·塔利布（Rashida Tlaib）。此外，法國國民聯盟（National Rally）的政治人物朱利安·奧杜爾（Julien Odoul）也曾在社群平台 X 上發布將穆斯林女性頭巾和裙裝移除的改圖，配文「法蘭西自由」，被專家認為是科技助長的仇恨行為。
CSOH 研究與外展主任艾維安·萊迪格（Eviane Leidig）表示，這類移除穆斯林女性面紗的行為，雖不一定直接違反平台規則，但仍然具有傷害性，凸顯 AI 聊天機器人在社群準則上的漏洞，尤其在社群平台 X 等放寬執法的情況下。事實上，今年一月 X 平台上曾大量流傳利用 Grok 脫除女性圖像的性化內容，導致法國對 X 進行調查，馬來西亞也因此暫時限制 Grok 的使用。